चीन के प्रसिद्ध इंटरनेट सुरक्षा विशेषज्ञ झोउ होंगयी ने हाल ही में AI भ्रम और साइबर सुरक्षा के बीच संबंधों पर चर्चा की। उन्होंने इस समस्या को न तो अतिरंजित करने और न ही नजरअंदाज करने की आवश्यकता पर जोर दिया, यह सुझाते हुए कि यह एक चुनौती है जिसका सामना करने के लिए संतुलित दृष्टिकोण की आवश्यकता है।

हाल ही में, ओल्लामा नामक एक लोकप्रिय बड़े भाषा मॉडल उपकरण में गंभीर सुरक्षा कमियाँ पाई गई हैं। इन कमियों का शोषण करके दुर्भावनापूर्ण अभिनेता संवेदनशील डेटा तक पहुँच प्राप्त कर सकते हैं और सिस्टम को नुकसान पहुँचा सकते हैं। उपयोगकर्ताओं को सलाह दी जाती है कि वे अपने सिस्टम को अपडेट करें और सुरक्षा सावधानियों का पालन करें।

एक नए शोध से पता चलता है कि बड़े भाषा मॉडलों में दयालु सुरक्षा उपाय अप्रत्याशित कमजोरियों को जन्म दे सकते हैं। शोधकर्ताओं ने पाया कि विभिन्न जनसांख्यिकी की शर्तों के आधार पर, मॉडलों के 'जेलब्रेक' करने की कठिनाई में महत्वपूर्ण भिन्नता है। 'क्या LLMs में राजनीतिक शुद्धता है?' नामक इस अध्ययन में यह जांचा गया है कि जनसांख्यिकी कुंजी शब्द कैसे जेलब्रेक प्रयासों की सफलता की संभावना को प्रभावित करते हैं। शोध से पता चला है कि सीमांत समूह की शर्तों का उपयोग करने वाले संकेतों से प्रिविलेज्ड समूह की शर्तों के संकेतों की तुलना में अधिक संभावना होती है।

मस्क ने सार्वजनिक रूप से कैलिफोर्निया SB1047 विधेयक का समर्थन किया, जिसका उद्देश्य प्रमुख एआई मॉडल निर्माताओं को संभावित खतरे के मद्देनजर सुरक्षा उपाय तैयार करने के लिए कहना है। यह विधेयक एआई द्वारा गंभीर नुकसान को रोकने के लिए रणनीतियों का आचरण दर्ज करने की आवश्यकता को बताता है। मस्क ने एआई के नियमन की आवश्यकता पर जोर दिया, जो कि पूर्व में एआई जोखिमों के प्रति उनकी चिंता के अनुरूप है। उनकी एआई कंपनी xAI SB1047 विधेयक के तहत बाध्य होगी। इसके विपरीत, OpenAI ने SB1047 विधेयक का विरोध करते हुए एक वैकल्पिक प्रस्ताव का समर्थन किया। यह घटना उद्योग में एआई नियमन की जटिलता और विवाद की झलक पेश करती है।

मस्क ने कैलिफोर्निया SB1047 अधिनियम का समर्थन किया, जो बड़े एआई मॉडल विकास कंपनियों से गंभीर नुकसान को रोकने के लिए सुरक्षा उपायों को रिकॉर्ड करने की मांग करता है। उन्होंने बल दिया कि वह पहले से एआई नियमन का समर्थन कर रहे हैं, और यह मानते हैं कि इसे जोखिम वाले उत्पादों और प्रौद्योगिकियों की तरह ही विनियमित किया जाना चाहिए। मस्क की कंपनी xAI इस अधिनियम के दायरे में आएगी, भले ही वह कैलिफोर्निया छोड़ने की योजना बना रहे हों। इसके विपरीत, OpenAI ने SB1047 का खुला विरोध किया है, और वैकल्पिक अधिनियम का समर्थन किया है। एडोब और माइक्रोसॉफ्ट ने कैलिफोर्निया के एक अन्य नए अधिनियम AB3211 का समर्थन किया, जो एआई द्वारा उत्पन्न सामग्री को चिह्नित करने की मांग करता है। इन गतिशीलताओं ने विज्ञान को स्पष्ट किया।

Anthropic ने अपने बग बाउंटी कार्यक्रम का विस्तार करने की घोषणा की है, जिसका उद्देश्य एक "अगली पीढ़ी के एआई सुरक्षा शमन प्रणाली" का परीक्षण करना है, जो मुख्य रूप से "सार्वभौमिक जेलब्रेक हमले" की पहचान और रक्षा पर केंद्रित है। विशेष रूप से उच्च जोखिम वाले क्षेत्रों, जिसमें CBRN रक्षा और साइबर सुरक्षा शामिल हैं, पर ध्यान केंद्रित किया गया है। प्रतिभागियों को नए सुरक्षा प्रणाली का पूर्वावलोकन करने का अवसर मिलेगा, कमजोरियों की खोज करने या सुरक्षा उपायों को बायपास करने का अवसर मिलेगा, जिसमें अधिकतम इनाम 15000 डॉलर है। यह पहल एआई प्रणाली की सुरक्षा को बढ़ाने के लिए है, सुरक्षा शोधकर्ताओं को संभावित खतरों की पहचान और समाधान में सहयोग करने के लिए आमंत्रित करती है, और एआई उद्योग में सुरक्षा प्रबंधन के लिए एक मानक स्थापित करती है।

शोधकर्ताओं ने हगिंग फेस एआई प्लेटफ़ॉर्म पर लगभग 100 दुर्भावनापूर्ण मशीन लर्निंग मॉडलों का पता लगाया है, जो हमलावरों को उपयोगकर्ता मशीनों में दुर्भावनापूर्ण कोड डालने की अनुमति दे सकते हैं। दुर्भावनापूर्ण एआई मॉडल ने पायटॉर्च जैसे तरीकों का उपयोग करके दुर्भावनापूर्ण कोड निष्पादित किया, जिससे सुरक्षा जोखिम बढ़ गया है। एआई डेवलपर्स को एआई मॉडल की सुरक्षा बढ़ाने के लिए हंट्र जैसे नए उपकरणों का उपयोग करना चाहिए। पाए गए दुर्भावनापूर्ण मॉडलों ने उपयोगकर्ता वातावरण पर दुर्भावनापूर्ण एआई मॉडल के खतरों को उजागर किया है, जिसके लिए निरंतर सतर्कता और सुरक्षा मजबूत करने की आवश्यकता है।

OpenAI ने एआई द्वारा लाई जा सकने वाली गंभीर खतरों के प्रति एक योजनाबद्ध ढांचा विकसित किया है जिसमें जोखिम स्कोरकार्ड, संभावित खतरों का मूल्यांकन और पूर्वानुमान, विशेषज्ञ टीमों की नियुक्ति जो तकनीक पर नजर रखें और खतरों की चेतावनी दें, महत्वपूर्ण जोखिमों का जवाब देने के लिए राष्ट्रीय सुरक्षा विशेषज्ञों की भर्तियां और उनकी तकनीक का स्वतंत्र तीसरे पक्ष द्वारा परीक्षण करने की अनुमति शामिल है।

वीज़ा छुट्टियों के खरीदारी के मौसम में बिक्री में वृद्धि के साथ-साथ साइबर अपराध के हमलों का सामना कर रहा है, और धोखाधड़ी को रोकने के लिए कृत्रिम बुद्धिमत्ता उपकरणों का उपयोग कर रहा है। 30 अरब डॉलर से अधिक का निवेश करते हुए, वीज़ा ने एक मजबूत धोखाधड़ी विरोधी प्रणाली का निर्माण किया है, जो लेनदेन का वास्तविक समय में विश्लेषण करती है और 500 अद्वितीय जोखिम कारकों का आकलन करती है। हालांकि धोखाधड़ी से लड़ने के लिए एआई का उपयोग कर रहा है, वीज़ा ने सहयोग में मानव अंतर्दृष्टि के महत्वपूर्ण भूमिका को उजागर किया है, संभावित धोखाधड़ी का सामना करने के लिए दुकानदारों और अन्य संस्थाओं के साथ मिलकर काम किया है।

ली फेई फेई की नई पुस्तक 'जिस दुनिया को मैंने देखा' आधिकारिक रूप से बिक्री के लिए उपलब्ध है, उन्होंने चिंता व्यक्त की कि स्टैनफोर्ड में चैटजीपीटी के लिए प्रशिक्षण शक्ति नहीं है, उन्होंने कहा कि वह एआई विनाशवादी नहीं हैं। ली फेई फेई न तो ओपन-सोर्स समर्थक हैं और न ही विनाशवादी, बल्कि वे मध्यवर्ती हैं, आशा करती हैं कि मानवता कृत्रिम बुद्धिमत्ता के साथ शांतिपूर्ण सह-अस्तित्व कर सके। ली फेई फेई एआई की संभावनाओं और खतरों को स्पष्ट रूप से समझती हैं, और मजबूत सरकारी निगरानी की वकालत करती हैं। उन्होंने एआई के प्रति मानवतावादी दृष्टिकोण अपनाने का समर्थन किया है, और मजबूत सरकारी निगरानी की वकालत की है। ली फेई फेई एक नियामक ढांचे और मानदंडों की स्थापना का समर्थन करती हैं, लेकिन वे सभी गतिविधियों को रोकने का आह्वान नहीं करतीं।

👀 शिखर सम्मेलन की विशेषताएँ: वैश्विक स्तर पर पहला एआई सुरक्षा शिखर सम्मेलन यूके में सफलतापूर्वक आयोजित किया गया, जिसमें 28 देशों के प्रतिनिधियों ने 'ब्लेचली एआई घोषणापत्र' पर हस्ताक्षर किए, जो एआई को जिम्मेदारी के साथ डिजाइन, विकसित और उपयोग करने की अपील करता है।🌟 महत्वपूर्ण सामग्री: घोषणापत्र मानता है कि एआई मानव जीवन में सुधार करने की क्षमता रखता है और साथ ही यह चेतावनी भी देता है कि एआई से होने वाले संभावित नुकसान हो सकते हैं, और इसके जोखिमों से बचने के लिए कानून जैसे उपायों के माध्यम से उपाय करने की आशा करता है।⚖️ अंतर्राष्ट्रीय सहयोग: चीन जैसे देशों ने एआई सुरक्षा क्षेत्र में संवाद बढ़ाने और वैश्विक सहमति शासन ढांचे की स्थापना करने की इच्छा व्यक्त की।

गूगल एआई के प्रमुख डेमिस हसाबिस का मानना है कि कृत्रिम बुद्धिमत्ता का विकास मानवता के लिए जलवायु परिवर्तन के समान खतरा पैदा कर रहा है, और उन्हें सुपर इंटेलिजेंट सिस्टम के नियंत्रण से बाहर होने जैसे दुर्भावनापूर्ण संभावनाओं की चिंता है। उन्होंने एआई के जोखिम को जलवायु परिवर्तन की तरह गंभीरता से लेने पर जोर दिया और एआई की निगरानी के लिए एक स्वतंत्र निकाय स्थापित करने का आह्वान किया, जो संयुक्त राष्ट्र जलवायु परिवर्तन अंतर सरकारी पैनल (आईपीसीसी) के समान हो। गूगल, माइक्रोसॉफ्ट, ओपनएआई और एंथ्रोपिक ने 10 मिलियन डॉलर का एआई सुरक्षा फंड स्थापित करने की घोषणा की, जिसका उद्देश्य सबसे सक्षम एआई के लिए प्रगति को बढ़ावा देना है।

माइक्रोसॉफ्ट, ओपनएआई आदि ने 1000 मिलियन डॉलर का संयुक्त निवेश किया है, क्रिस मेसेरोल को 'फ्रंटियर्स मॉडल फोरम' के कार्यकारी निदेशक के रूप में नियुक्त किया है, जिसका उद्देश्य जनरेटिव एआई उत्पादों की सुरक्षा को बढ़ाना है। 'फ्रंटियर्स मॉडल फोरम' की स्थापना माइक्रोसॉफ्ट, ओपनएआई, गूगल और एंथ्रोपिक द्वारा की गई है, जिसका लक्ष्यों में अग्रणी एआई मॉडल की सुरक्षा और जिम्मेदार विकास को सुनिश्चित करना शामिल है। एआई सुरक्षा कोष की स्थापना की गई है, जो विश्व स्तर पर स्वतंत्र शोधकर्ताओं का समर्थन करेगी ताकि वे सुरक्षित एआई पारिस्थितिकी का निर्माण कर सकें, ताकि जनरेटिव एआई के संभावित सुरक्षा जोखिमों का समाधान किया जा सके। इसका मुख्य लक्ष्य एआई सुरक्षा को बढ़ावा देना है।

📣 ब्रिटेन सरकार ने वैश्विक एआई नियामक प्राधिकरण की स्थापना से इनकार किया, और कहा कि एआई सुरक्षा शिखर सम्मेलन उभरती तकनीकी जोखिमों की पहचान और प्रबंधन में सहायता करेगा।🌍 यह शिखर सम्मेलन वैश्विक नियमों के निर्माण या वैश्विक एआई नियामक प्राधिकरण की स्थापना का उद्देश्य नहीं है, बल्कि अंतरराष्ट्रीय सहयोग की शुरुआत के रूप में है।🔬 ब्रिटेन सरकार 'फ्रंटियर एआई टास्कफोर्स' को प्रदर्शित करेगी ताकि अग्रिम तकनीक मॉडल के राष्ट्रीय सुरक्षा जोखिमों का मूल्यांकन किया जा सके।